ar+nar-len-llama-8
Model (
nar-len
)

This is from a snapshot of the weights post-training for NAR-len modality.
Average WER: 0.104
Average CER: 0.058
Average SIM-O: 0.883

LibriSpeech
Text WER↓ CER↓ SIM-O↑ Prompt Our VALL-E Original VALL-E Ground Truth
Number ten, fresh nelly is waiting on you, good night husband. 0.0000.0000.672
Yea, his honourable worship is within, but he hath a godly minister or two with him, and likewise a leech. 0.1000.0550.965
Instead of shoes, the old man wore boots with turnover tops, and his blue coat had wide cuffs of gold braid. 0.0000.0000.895
The army found the people in poverty and left them in comparative wealth. 0.0000.0000.934
Thus did this humane and right minded father comfort his unhappy daughter, and her mother embracing her again, did all she could to soothe her feelings. 0.1920.1370.773
He was in deep converse with the clerk and entered the hall holding him by the arm. 0.0000.0000.938
They moved thereafter cautiously about the hut groping before and about them to find something to show that Warrenton had fulfilled his mission. 0.2170.0920.828
And lay me down in thy cold bed and leave my shining lot. 0.0770.0900.871
Sampled Dataset
Text WER↓ CER↓ SIM-O↑ Prompt Our VALL-E Ground Truth
I can't tell you how glad I am to have you so pretty and comfortable here, and to hear everyone saying such nice things about you. 0.0000.0000.934
The other is a mythological subject of deeper meaning, the death of Procrus. 0.0770.0510.934
And yet, that something must be playful in its nature. 0.0000.0000.863
Each day has its own great gree for its little care. 0.0910.0180.930
It seems to be easier than it is, I begin to think, replied Philip. 0.0000.0000.969
He rode before a portmanteau and called himself Ashburnham's servant. 0.2000.1510.828
Unless you speak more fully senora, I cannot understand you. replied her husband. 0.0000.0000.773
It did not beckon, or indeed move at all. It was as still as the hand of death. 0.0590.0370.844
Lafe and grim shall be the same kind of friends to your two sons. 0.0710.0290.918
real dishonor consistent sin, and real honor in virtue. 0.3330.2100.852
On the palm were three little pyramids of black, doughy clay. 0.0000.0000.875
Most people talk too much, so it is a relief to find one who talks too little. 0.0000.0000.961
One evening there came a sudden flash of fire and a sputtering, sizzling noise. 0.0000.0000.902
Well, you are sad every day. 0.0000.0000.844
This invidious traditional distinction has not lost its force even among the more advanced people of today. 0.0620.0270.938
That's a poor saying," said Amiel, stooping over to wipe his hands in the wet grass. 0.0000.0000.910
If I must say it, Mother, I want to go away and get out of this dead level. 0.0000.0000.836
Don't know, most everything she says sounds like the Bible or Shakespeare to me. 0.0000.0000.930
He worked me very hard. He wanted to be beating me all the time. 0.0000.0000.781
I gave her a spray of lilac. I remember and you gave her a friend. 0.1330.1330.926
He was handsome and bold and pleasant, offhand and gay and kind. 0.5000.3380.914
If I had only seen her, I should have declared it to be a vision, but I spoke to her. 0.0000.0000.926
The Count advanced a step towards his friend and pressed him warmly in his arms. 0.0000.0000.883
I just touched something soft. On the instant Joyce was at her side with a candle. 0.0670.0480.801
The story won't tell," said Douglas, not in any literal vulgar way. 0.0000.0000.906
Why don't you do flowers and houses, Olive? inquired serosalicitously. 0.7000.3470.895
There it clothed itself in word masks, in metaphor rags. 0.1000.0170.887
The stars began to crumble and a cloud of fine stardust fell through space. 0.2140.0890.836
Among the exhibits of that exposition was the Edison system of incandescent lighting. 0.0000.0000.855
What did old mom be the witch do with the powder of life your husband gave her? Ask the boy. 0.1050.0400.949
apathy and disgust commonly follows satiated lust. 0.8570.4210.969
She, however, did not bestow a single glance upon him. 0.0000.0000.891

Settings used:

{'task': 'tts', 'modality': 'nar-len', 'max_steps': 50, 'max_levels': 7, 'max_duration': 900, 'ar_temperature': 1.0, 'nar_temperature': 0.0, 'min_ar_temperature': -1.0, 'min_nar_temperature': -1.0, 'top_p': 1.0, 'top_k': 0, 'top_no': 0.0, 'min_p': 0.0, 'repetition_penalty': 1.0, 'repetition_penalty_decay': 0.0, 'length_penalty': 0.0, 'beam_width': 0, 'mirostat_tau': 0, 'mirostat_eta': 0, 'dry_multiplier': 0, 'dry_base': 1.75, 'dry_allowed_length': 2, 'input_prompt_length': 0.0, 'input_prompt_prefix': False, 'prefix_silence': 0.0, 'cfg_strength': 4.0, 'cfg_rescale': 0.75, 'seed': 1733981492, 'tqdm': True, 'batch_size': 16}

German

Average WER: 0.189
Average CER: 0.116
Average SIM-O: 0.938

Sampled Dataset
Text WER↓ CER↓ SIM-O↑ Prompt Our VALL-E Ground Truth
Dann sieht man noch ein paar Meisterfiguren, ein paar NPCs. 0.1000.0710.969
Das ist wieder eine wirklich wichtige Frage, damit du feststellen kannst, ob der Job auch wirklich der Richtige für dich ist. 0.0480.0860.945
Aber wenn der Teigewurz jetzt guckt, dann wird's auf jeden Fall abkratzen. 0.1670.0370.934
Muss ich aufpassen, schon zwei Fails, aber gleich hab ich den Rekord. Der zählt noch. 0.4670.3670.926
Ich hoffe mal, es geht durch simples Neigen auch. Ja, geht es. Ich hab mich schon treffen lassen, wie blöd. 0.3500.2660.871
... aus dieser Toxicität hätte haben können. 0.1670.3330.980
In der letzten Lektion hatten wir die Zahlen von 0 bis 20. 0.0000.0000.961
Das Material ist da, das Dach ist da und das Seitenteil ist auch da. 0.1430.0520.934
Ja, und wie finden wir jetzt aber raus, ähm, auf welche horizontale Position das kommt? 0.2670.1550.953
Machen wir erstmal unser Werkstück richtig fest. Dafür habe ich hier schon einen Schraubzwinger angebracht. Und die zweite setzen wir jetzt hier an. 0.3040.1430.848
Dass es irgendwann, ähm, funktionieren wird. 0.1670.1060.941
BIRDS heißt der Clip, der in der Animationsszene begeisterte Kommentare erntet. 0.0910.0790.922
Wir sind zurück beim Check 24 Doppelpass und kümmern uns erst mal um die Frage der Wochenauer. 0.0560.0340.953
Falsche Politik, schlechte Politik, verschwendungssüchtige Politik zu alimentieren. 0.0000.0000.949
Sommer- und Weihnachtskonzerte in Güstrow und Wützow sind natürlich auch Tradition. 0.2730.0860.973
Kann das auch positiv geben und das Geld soll doch nicht auch zurück, das soll nicht verbaut oder verbastelt werden. Aber ich sag meistens ja so, 0.0770.0680.898
Die Schule selber durch den Denkmalschutz scheint mir in den Kosten dann auch nochmal einen Sprung mehr zu machen. 0.3680.2860.980
Martin Kutschke übernimmt dann ihr Amt in der Anlage Immergrün und wird jetzt schon mal von ihr eingearbeitet. 0.2220.0830.918
Und wenn Sie 600 Quadratmeter Rasen haben, dann gehören Sie ja fast schon in der Innenstadt zum Großgrundbesitz. 0.0560.0670.918
Weil, ähm, ich einfach sehe, dass die Kunden mit dem Produkt nicht zufrieden sind. Und das wollen wir natürlich nicht. 0.2500.1210.973
Die Rede oder der Ausdruck da von Herrn Söder, wir seien einem Lockdown sehr nah. 0.3330.0890.926
Mein Herz schlägt ruhig und gleichmäßig. 0.3330.1820.934
Nach dem Fermentieren kommen die Tofoblöcke in den Kühlschrank. 0.1110.0150.938
Der Spieler und der Trainer, äh, ne Einladung zustimmen. Und Mats? 0.2730.1290.949
Und die könnte man zu einer kleinen Stadtrundfahrt nutzen. 0.1110.0970.988
Und dann die Dame aus der Personalabteilung. Also sehr geehrter, jetzt hatten wir ja den Titel dabei, sehr geehrter Herr Doktor Müller. 0.1820.1870.898
Macht es gut, Kinder. Wenn es funktioniert, werdet ihr mir noch nachholen. 0.0000.0000.973
Hat die besten aus Deutschland. Die verlieren 6-0. 0.3750.2000.965
Und da kommt die K-Frage Kroos, ja oder nein, auch ins Spiel. Ist er der Mensch? 0.1250.0700.914
Bitte? Sitze im Garten, lese meine Zeitung, geht's Telefon Polizei. 0.4000.1000.934
Das ist jetzt schon fieser, aber ich hab weit geworfen und... 0.0000.0000.914
Und, ähm, hat gemeint, das machen wir doch mal zu einem Spiel und legen das der Konsole bei. 0.2220.2180.922

Settings used:

{'task': 'tts', 'modality': 'nar-len', 'max_steps': 50, 'max_levels': 7, 'max_duration': 900, 'ar_temperature': 1.0, 'nar_temperature': 0.0, 'min_ar_temperature': -1.0, 'min_nar_temperature': -1.0, 'top_p': 1.0, 'top_k': 0, 'top_no': 0.0, 'min_p': 0.0, 'repetition_penalty': 1.0, 'repetition_penalty_decay': 0.0, 'length_penalty': 0.0, 'beam_width': 0, 'mirostat_tau': 0, 'mirostat_eta': 0, 'dry_multiplier': 0, 'dry_base': 1.75, 'dry_allowed_length': 2, 'input_prompt_length': 0.0, 'input_prompt_prefix': False, 'prefix_silence': 0.0, 'cfg_strength': 4.0, 'cfg_rescale': 0.75, 'seed': 1734033782, 'tqdm': True, 'batch_size': 16}

French

Average WER: 0.206
Average CER: 0.117
Average SIM-O: 0.910

Sampled Dataset
Text WER↓ CER↓ SIM-O↑ Prompt Our VALL-E Ground Truth
des transports publics de Morges-Bierre-Cossonnet qui sont basés à Morges. 0.5000.1850.973
Et vendredi à l'Elysée, les deux hommes, je vous ai payé compter président du Conseil Italien et Emmanuel Macron, 0.2110.1680.965
La paillette est inspirée. Bonne nouvelle pour les Marseillais. 0.1110.0200.895
Oui, je veux du blédin dans la vie! Hein? Oui, je veux du blédin dans la vie! De quoi tu parles? 0.3330.3440.918
C'est toi qui conduis ? La matelas, Tom, bref, rien a changé par ici. 0.5380.3090.707
Et aujourd'hui, je suis enfin mariée. 0.0000.0000.906
Vous connaissez ce dehors-derans les filles, n'est-ce pas ? Tu sais celui que tu mets quand tu lèves le bras, tu entends. 0.1430.1410.754
Aujourd'hui, nous avons basculé dans une nouvelle ère climatique. Regardez simplement depuis l'été. 0.2310.1570.957
Tirez à 250 000 exemplaires son nouveau roman intitulé Cher Connard 0.2500.0650.973
Oui c'est très étonnant, en allant à la FNAC j'ai vu qu'au rayon Histoire Sociologie, il est numéro 1. 0.1050.0610.934
On espère que l'équipe de France va passer cette étape-là. 0.3000.1130.699
Coq et renard, et nous allons l'utiliser au mieux pour atteindre notre objectif qui est d'avoir 3 oeufs. Alors. 0.1580.1120.949
Trump français avait promis il y a un an de couvrir 100% des TGV d'ici 2018 en 4G. 0.2860.1300.973
Je travaille pas mal sur la nuit, enfin mon travail prend encore la nuit. 0.7860.5950.957
Oui, signalons tout de même que les huit soldats de la CMA ont fini par être relâchés. 0.3530.2050.969
Une pelleteuse. Un camion-benne. 0.7500.1250.898
Mais comme c'était un enfant intelligent, eh ben les professeurs ne s'en sont pas rendus compte. Sa mère pensait simplement qu'il était rêveur. 0.5650.3830.992
Invité sur le plateau, Vincent Moscato semble voir d'un mauvais œil ce nouveau buzz autour de l'émission. 0.0590.0180.973
Une fois que j'ai vérifié chacun de mes pyramides, eh bien, mon adversaire va faire exactement la même chose. 0.1580.1330.980
Voilà, vous savez presque tout sur Batman Infiltration. Maintenant, à vous de jouer, et à bientôt sur ce qu'on va faire. 0.0000.0000.938
Quand ce moteur est en pleine charge, c'est là où il avale le plus de choses difficiles à gérer. 0.0530.0680.938
Si, il faut être un minimum doué, mais... 0.0000.0000.930
Donc ça nous oblige à chercher du vocabulaire et de nouvelles structures. 0.0830.0450.926
Depuis les révélations, sa tournée a été modifiée avec des annulations de représentations prévues en janvier et février. 0.0000.0000.965
Nous aider à être heureux. 0.0000.0000.922
La première, c'est une théorie qui concerne la Lune. 0.0000.0000.957
Check. Souffrir un bon coup et se faire décapiter par un gentil assistant attentionné. 0.0000.0000.828
Même nos propres voitures seraient autonomes. 0.0000.0000.941
Nous serions très heureux de vous rencontrer et de vivre des moments forts avec le Seigneur. 0.0000.0000.832
On s'entend de, de mieux en mieux. Voilà, on se connaît, on se connaît beaucoup plus aussi. 0.3530.2960.934
Mbappé passeur, Neymar buteur, les rôles s'inversent dans le temps additionnel. 0.2730.0570.938
Et l'efficacité avec cette magnifique diagonale transversale pour l'Hirola. 0.0000.0000.711

Settings used:

{'task': 'tts', 'modality': 'nar-len', 'max_steps': 50, 'max_levels': 7, 'max_duration': 900, 'ar_temperature': 1.0, 'nar_temperature': 0.0, 'min_ar_temperature': -1.0, 'min_nar_temperature': -1.0, 'top_p': 1.0, 'top_k': 0, 'top_no': 0.0, 'min_p': 0.0, 'repetition_penalty': 1.0, 'repetition_penalty_decay': 0.0, 'length_penalty': 0.0, 'beam_width': 0, 'mirostat_tau': 0, 'mirostat_eta': 0, 'dry_multiplier': 0, 'dry_base': 1.75, 'dry_allowed_length': 2, 'input_prompt_length': 0.0, 'input_prompt_prefix': False, 'prefix_silence': 0.0, 'cfg_strength': 4.0, 'cfg_rescale': 0.75, 'seed': 1734034471, 'tqdm': True, 'batch_size': 16}

Japanese

Average WER: 1.510
Average CER: 0.856
Average SIM-O: 0.888

${LIBRISPEECH_SAMPLES}
LibriSpeech
Text WER↓ CER↓ SIM-O↑ Prompt Our VALL-E Original VALL-E Ground Truth
Sampled Dataset
Text WER↓ CER↓ SIM-O↑ Prompt Our VALL-E Ground Truth
一時の方言ニュース、琉球新報の記事から、うんぬきやびだ。 4.0000.4720.906
そうですね、年末少しね、あの、迷惑かけてますので、まぁ、ここはしっかりと。 1.0000.2210.910
ゴール式やべぇこいつ。もう一回触れる。 1.0000.4070.672
なんせ月経祭は毎年50万人が訪れるお化けイベント。 0.2500.0530.949
いなくなっていた気づいた時には弟と二人だった 1.0000.3620.938
めくらましだったなんて。そんなの納得できるわけない。 1.0000.0290.879
目的地がはっきりしたのはいいけど、結構距離あるよな。 1.0000.2110.840
最強の敵と戦うためには、俺以外に最強が存在しちゃいけねぇ。 1.0000.1840.844
相手に返す技の速度や圧力を調整して狂わせてる。 0.0000.0000.930
ハサウェイ、ハサウェイ、ガオダーダ、ガオダーダ、ハサウェイ! 1.0000.2120.832
ねえ、ガチウェンローなんだが、超ウェンローなんだが、シェイシェイ。 6.7223.0570.969
ないな。なんかないなないなないなないな。 2.00015.3680.855
あの、まぁ、こっからさ、この文章から、あの、実際に現場が決めるんだと思いますけれども、まぁ一応、 1.0000.3650.777
舐めるなよ、ドライヌども。 1.0000.1210.844
償いない影を背負って 1.0000.1710.926
どこ来いま?あ、僕いた。 3.0000.6540.953
セクシーので混ざるどんな意図せもあなたに会いにく 2.0000.0320.953
最高。えぇー、そんなもないわ。 1.0000.9060.969
やかましい女!やかましい! 1.0000.4640.895
ムズッ。じゃあ次レア客が来たら開くか。 1.0000.5470.801
おうら、ねえ。メソッチ?こんばんは、え? 1.0000.9470.961
まぁ確かにね。何ですか、サポートって。 0.0000.0000.828
セミも食べる!ラーメンも食べる!おい! 1.0000.0910.918
日本でも衆議院と参議院をある党に 3.0000.4340.941
ロックさん、シェイシェイシェイリーユー。抱きまくら。 4.0000.5100.875
そのー、なんかちょっとデカめな虫もお前らの中にいるんじゃねーの? 2.0000.3690.934
おい、誰だ?ピザにサバを乗せたやつ。 0.0000.0000.883
ほんとに森ですね。高鳥山トレッキングコースですね、これ。 2.0000.1070.707
新型コロナが蔓延してから3度目となる秋の観光シーズンを迎えます。 1.0000.1540.949
俺は二度とジュンとあいつの母親を会わせるつもりはないし会ってほしくもない。 1.0000.2310.914
うわ、ジール剣強っ。0と720。勝った150倍海洋剣じゃん。 1.3640.5730.914
あぁ、やっと来た。さぁ、さすがに年末カット割ろう。行くよ。 1.0000.1250.949

Settings used:

{'task': 'tts', 'modality': 'nar-len', 'max_steps': 50, 'max_levels': 7, 'max_duration': 900, 'ar_temperature': 1.0, 'nar_temperature': 0.0, 'min_ar_temperature': -1.0, 'min_nar_temperature': -1.0, 'top_p': 1.0, 'top_k': 0, 'top_no': 0.0, 'min_p': 0.0, 'repetition_penalty': 1.0, 'repetition_penalty_decay': 0.0, 'length_penalty': 0.0, 'beam_width': 0, 'mirostat_tau': 0, 'mirostat_eta': 0, 'dry_multiplier': 0, 'dry_base': 1.75, 'dry_allowed_length': 2, 'input_prompt_length': 0.0, 'input_prompt_prefix': False, 'prefix_silence': 0.0, 'cfg_strength': 4.0, 'cfg_rescale': 0.75, 'seed': 1734034704, 'tqdm': True, 'batch_size': 16}